Vào năm 1864, liên minh Áo-Phổ toàn thắng trong cuộc Chiến tranh Schleswig lần thứ hai với Đan Mạch năm 1864, song, thắng lợi này vẫn chưa đủ để khẳng định sự cần thiết của các biện pháp cải cách của Roon. Phải đến cuộc Chiến tranh Áo-Phổ năm 1866 thì ông mới trở nên được ủng hộ nồng nhiệt.[5]

Khi cuộc Chiến tranh Áo-Phổ, Roon được thăng cấp Thượng tướng Bộ binh. Ông đã tham gia trong thắng lợi quyết định tại Königgrätz, dưới quyền tổng chỉ huy của Moltke. Ông được nhận Huân chương Đại bàng Đen tại Nikolsburg trên con đường tại Viên[5]. Ảnh hưởng của Roon đối với nhà vua lớn đến mức mà Moltke hầu như bị quên lãng: khi một sĩ quan mang một chỉ thị của Moltke đến cho Sư đoàn trưởng của mình, viên Sư đoàn trưởng thắc mắc: "Có vẻ là một mệnh lệnh tốt. Nhưng Tướng von Moltke là ai cơ chứ?".[6][18] Đại thắng ở Königgrätz đã cho thấy thành công của các cuộc cải cách của ông.[1] và giờ đây, Roon từ một người bị căm ghét nhất đã trở thành người được mến mộ nhất trên đất nước của mình.[5] Tháng 9 năm 1866, Viện Dân biểu thông qua một khoản bồi thường đầy đủ cho những chi phí nằm ngoài hiến pháp của Chính phủ suốt 4 năm qua. Năm sau, Quốc hội tuyên bố chấp thuận các cuộc cải cách quân sự. Vào ngày 20 tháng 8 năm 1866, Roon hoan hỉ viết thư báo cho nhà vua rằng cuộc xung đột giữa Vương triều với Quốc hội cuối cùng đã kết thúc.[12]

Cơ chế quân đội của ông đã được toàn bộ Liên bang Bắc Đức áp dụng sau năm 1866. Trong các năm về sau, cơ cấu mới mẻ này cũng được mọi quốc gia khác ở lục địa châu Âu học theo.[5]

Trong Chiến tranh Pháp-Phổ năm 1870 – 1871, Roon đã tháp tùng vua Wilhelm I đi chinh chiến.[5] Nhờ có cuộc canh tân của Roon, người Phổ đã tổng động viên được hàng triệu binh lính khi cuộc chiến tranh này nổ ra.[2] Cuộc chiến là một thắng lợi vang dội đối với Phổ và Roon đã có đóng góp đáng kể đến thành công này. Vào ngày 19 tháng 1 năm 1871, lễ kỷ niệm 50 ngày gia nhập quân ngũ của ông đã được tổ chức tại điện Versailles, Pháp, nơi mà Wilhelm I, người vừa lên ngôi hoàng đế Đức ngày hôm qua, bày tỏ sự biết ơn đối với những cống hiến to lớn của ông. Ông được phong làm Bá tước (Graf), ngay sau Moltke. Sau khi thôi chức Bộ trưởng Chiến tranh và Bộ trưởng Hải quân,[5] vào tháng 1 năm 1873, kế nhiệm Bismarck làm Thủ tướng Phổ, trong khi Bismarck vẫn tiếp tục là Thủ tướng của Đế quốc Đức. Tuy nhiên, sức khỏe yếu đã khiến cho ông phải trao lại ghế Thủ tướng cho Bismarck. Roon đã được phong hàm Thống chế vào ngày 1 tháng 1 năm 1873.

Roon qua đời tại thủ đô Berlin vào ngày 23 tháng 2 năm 1879. Ông được chôn cất tại hầm mộ của gia đình Roon tại lâu đài Krobnitz, về hướng tây Görlitz.